دختری با کاپشن صورتی و گوشواره قلبی در یوتیوب ممنوع شد

تنها چند روز پس از وایرال شدن تصاویر هوش مصنوعی در مورد یکی از قربانیان جنایت کرمان، یوتیوب انتشار تصاویر تولیدشده توسط هوش مصنوعی را که شبیه‌سازی کودکان فوت‌شده و قربانیان فجایع باشند، ممنوع کرد.

  این پلتفرم ویدیویی به تازگی سیاست آزار و زورگویی سایبری خود را به‌روز کرده و محتوایی که «به‌طور واقع‌بینانه افراد خردسال یا قربانیان وقایع خشونت‌آمیز مرگ‌بار را شبیه‌سازی می‌کنند» ممنوع اعلام کرده است.

این مقررات جدید از ۱۶ ژانویه (۲۶ دی) اجرا خواهد شد. گوگل این اقدام را بخشی از تلاش‌های خود برای ایجاد مسئولیت‌پذیری در زمینه موارد حساس خوانده است. همزمانی این تصمیم گوگل با انتشار گسترده تصاویر ساخته‌شده توسط هوش مصنوعی در مورد یکی از قربانیان جنایت کرمان باعث گمانه‌زنی‌هایی شده است.

در روز‌های اخیر فراگیرترین تصویر شبکه‌های مجازی، تصاویر ساخته‌شده با ابزار‌های هوش مصنوعی برای «دختری با کاپشن صورتی و گوشواره قلبی» بود. تصاویر متعددی که توانسته بودند آن جمله توصیفی بر روی جسد آن شهید بزرگوار را تجسم ببخشند. حالا سیاست گوگل به‌گونه‌ای تغییر کرده که دیگر امکان انتشار این نوع تصاویر در یوتیوب فراهم نباشد.

آیا در صورتی که حادثه‌ای تروریستی در کشور‌های غربی رخ دهد و فجایعی مشابه پدید آید، این سیاست تغییر خواهد کرد؟ تجربه‌ای که از سال‌ها عملکرد دوگانه گوگل و سایر شرکت‌های فناوری غربی حاصل شده است، چنین می‌گوید.

هرچند باید در نظر گرفت اصل عمل قانون‌گذاری در حوزه تصاویر هوش مصنوعی کار درستی است. این ابزار‌ها امکان‌های متعددی را در اختیار افراد قرار می‌دهند و عده‌ای سودجو یا آزارگر ممکن است از این طریق تلاش کنند به امنیت روانی جامعه آسیب بزنند.